專家警告，今年11月美國中期選舉前夕，社群媒體正遭AI生成的虛假訊息淹沒，從虛構候選人住院到AI假影片，散播速度驚人。儘管社群平台各有規範，但專家指出，平台對非英語內容審核不足，且過度依賴AI審核可能導致更多假訊息難以被識別與移除。
專家警告，在今年11月美國中期選舉（在美國總統任期中途舉行的國會議員與部分地方職位選舉）前夕，社群媒體充斥著前所未有、由人工智慧（AI）驅動的虛假訊息。隨著AI技術讓假訊息宣傳活動的發起變得比以往更容易且成本低廉，社群媒體公司卻因裁員與反彈聲浪，縮減了保護選民免受不實資訊影響的努力，導致大量AI生成的假訊息可能「矇混過關」。
這些假訊息的形式多樣且不斷演變。在德州參議院選舉中，民主黨參選人詹姆斯·塔拉里科（James Talarico）被不實報導稱在俄亥俄州的精神醫療機構，該謠言後來甚至演變成他企圖自殺的西班牙語假訊息。其共和黨對手肯·帕克斯頓（Ken Paxton）則利用AI生成的影片，指稱詹姆斯·塔拉里科重寫《聖經》。
賓夕法尼亞州也出現類似案例，有不實貼文聲稱一名無證移民是民主黨國會參選人賈內爾·斯特森（Janelle Stelson）競選團隊的活躍成員。儘管賈內爾·斯特森的競選團隊出示紀錄否認該移民有受薪職位，但美國國土安全部（Department of Homeland Security）副局長查爾斯·沃爾（Charles Wall）卻公開放大此一說法，而共和黨眾議員斯科特·佩裡（Scott Perry）的競選團隊也持續播放含有該不實訊息的廣告。
社群平台對此採取了不同的應對策略。Meta Platforms 要求選舉廣告商揭露AI生成內容，並透過C2PA（Coalition for Content Provenance and Authenticity）中繼資料自動標註AI生成圖像。然而，Meta在2023年放寬了歷史限制，允許對過往選舉合法性進行辯論。谷歌旗下的YouTube則在2023年停止移除聲稱2020年或其他美國總統選舉存在「大規模舞弊、錯誤或故障」的內容，表示此舉雖遏止了假訊息，但也對政治言論產生了寒蟬效應。YouTube將選舉假訊息定義為誤導選民投票資訊或可能實質阻礙投票的內容。
由馬斯克（Elon Musk）收購後的X公司（X, formerly Twitter），則放棄了內部安全審查，改為依賴社群協作的「Community Notes」計畫。不過，X公司的公民誠信政策仍禁止關於投票方式的錯誤資訊與壓制選民的計畫。前Facebook工程師弗朗西絲·霍根（Frances Haugen）指出，當AI能輕微修改內容以規避審查時，平台應更關注內容的分發系統與潛在偏見。Digital Democracy Institute of the Americas (DDIA) 的創辦人羅伯塔·布拉加（Roberta Braga）也表示，平台對於西班牙語等非英語內容的審核措施較少，且當內容審核日益依賴AI時，將有更多假訊息漏網。